Ông bắt đầu sự nghiệp bóng đá chuyên nghiệp năm 17 tuổi với câu lạc bộ SCO Angers, và hai năm sau chuyển đến Stade de Reims. Tại đây ông đã giành được 2 chức vô địch Pháp vào các năm 1953 và 1955. Ông cùng với Reims đã lọt vào trận chung kết Cúp C1 châu Âu đầu tiên năm 1956, thất thủ trước Real Madrid với Alfredo Di Stéfano 3-4. Ông chuyển đến Real Madrid mùa bóng tiếp theo, đá cặp cùng với Ferenc Puskás. Với hai chức vô địch Tây Ban Nha các năm 1957 và 1958, tiếp theo đó là hai chức vô địch Cúp C1 châu Âu với Real Madrid các năm 1958 và 1959, Kopa trở thành cầu thủ Pháp đầu tiên giành được một Cúp châu Âu, trong đó trận chung kết năm 1959 đội bóng của ông lại vượt qua Stade de Reims của Just Fontaine.

Kopa trở về Pháp trong mùa bóng 1959-60 để kết thúc sự nghiệp với Reims. Ông có thêm được 2 chức vô địch Pháp vào các năm 1960 và 1962. Tổng cộng, ông đã ghi được 75 bàn thắng trong 346 trận chơi ở Ligue 1, và là cầu thủ Pháp đầu tiên nhận được Quả bóng vàng châu Âu vào năm 1958.

Khi trở về Pháp, Kopa đã phát động một phong trào đấu tranh của các cầu thủ chống lại các bản hợp đồng hà khắc (các cầu thủ bị hợp đồng cột chặt vào câu lạc bộ, đến 35 tuổi mới có thể ra đi theo ý mình). Việc này đã làm ông bị kỉ luật 6 tháng (ông giải nghệ ngay sau đó) nhưng đã dẫn đến sự ra đời của Hiệp hội cầu thủ nhà nghề để bảo vệ quyền lợi các cầu thủ. Đây là một cuộc cách mạng trong làng bóng đá Pháp.